Faut-il craindre l’IA?

Démystifier l’IA, ou plutôt « démythifier » une IA rongée par les mythes (Terminator, L’Odyssée de l’espace)… voilà ce que propose Cédric Villani dans cette conférence parfaitement construite Conférence de Cédric Villani.

Je trouvais étonnant qu’un chercheur en mathématiques, qu’on imaginerait volontiers en lévitation dans les hautes sphères de la pensée abstraite, puisse descendre dans l’arène des contingences. Mais en fait, non, c’est tout à fait logique. Il s’inscrit dans la grande tradition des humanistes, de Blaise Pascal à Victor Hugo, avec son look de poète maudit, romantique-gothique, devenant au fil des années un vieux sage rassurant à la barbe grisonnante et au verbe tellement accessible (il est un peu plus jeune que moi, j’espère qu’il ne se vexera pas 😄).
Son engagement politique pour l’écologie, sa réflexion sur l’IA sont à la mesure des bouleversements qui nous secouent actuellement.

Partons donc de sa rhétorique éclairante…

Déjà, il existe une difficulté à définir rigoureusement l’IA : à part « quelque chose qui fait le buzz » (actuellement ce sont les LLM, mais hier — il n’y a pas si longtemps, 5 ou 10 ans — c’était la classification d’image, la prédiction du prix d’une maison, la recommandation d’un film, d’un ‘post’ sur les réseaux sociaux, ou d’un article selon les achats récents… même la vision par ordinateur n’impressionne déjà plus vraiment !).
Plus sérieusement, on pourrait généraliser l’IA à tout algorithme qui automatise ce que fait l’humain pour une tâche donnée (un simple tri, une recherche dans une liste, une multiplication…). Et il n’y a pas besoin d’ordinateur pour ça : les premiers algorithmes datent d’il y a 4000 ans.

Bien entendu, on ne parlera d’IA que si l’algorithme présente une relative autonomie, notamment vis-à-vis de son développeur humain, en étant capable de s’adapter et d’apprendre comme peut le faire un être vivant. Les systèmes experts des années 80-90 pouvaient simuler notre capacité logique pour arriver à des conclusions en partant de faits et en appliquant des règles de causalité complexe et non ordonnée, mais ces règles étaient maîtrisées et saisies par des experts humains. Le machine learning propose toute une famille d’algorithmes d’apprentissage à partir d’un grand nombre d’exemples existants, labellisés encore par des humains (apprentissage supervisé), ou en devinant les classifications (non supervisé), ou, mieux encore, en explorant un ensemble de possibilités (renforcement), mais ils sont explicables (statistiques, équations mathématiques, algorithmes itératifs) et très ciblés, un seul domaine à la fois, loin de l’intelligence générale.

Ce qui fait surtout partie de la fascination, ou de la grande peur — le fameux mythe de Pygmalion — c’est la branche « deep learning », sous-branche du machine learning citée précédemment, car apparaît, pour la décrire, le nom très évocateur de « réseau de neurones » (profonds ou convolutifs, ça ajoute encore plus de mystère) qui, bien évidemment, s’associe directement au fonctionnement du cerveau et donc de l’intelligence humaine.

Mais s’agit-il pour autant d’intelligence humaine ? Toujours pas, même si c’est d’une efficacité bluffante, capable d’écraser l’homme au jeu d’échecs ou au go, de reconnaître des visages, des voix… tout cela rendu possible par cette famille d’algorithmes, très ancienne dans ses principes, mais repropulsée sur le devant de la scène par les capacités hardware (CPU, GPU, mémoire) qui n’ont fait qu’augmenter selon la loi de Moore depuis le début de l’informatique et qui, accessoirement, fait la fortune actuelle de Nvidia.

Et puis sont arrivés ChatGPT et consorts, toujours sur la base de réseaux neuronaux et d’un nouveau terme qu’il ne faut pas confondre avec les figurines voiture-robot 😄, les transformers, capables de comprendre le langage, de dialoguer jusqu’à réussir le test de Turing, de faire des résumés, des traductions, de la réflexion, des maths, de la pédagogie, de la création et même de réaliser des actions sur nos machines, après avoir ingurgité pendant des heures et des heures le corpus de la connaissance humaine (merci le web), sans oublier cette capacité de créer des images, des vidéos, de la musique… Le langage, dernier rempart sur la frontière de l’intelligence humaine…

Pour certains, les IA génératives ne sont que des super outils de complétion à base de statistiques et de probabilités. Pour d’autres, il y a un mystère proche d’une singularité, une émergence de quelque chose qui échappe à notre maîtrise, le tout étant supérieur à la somme des parties comme en biologie… Dans cette vidéo de David Louapre, le brillant vulgarisateur nous explique ainsi que la créativité humaine peut s’apparenter à une sorte d’interpolation au même titre que ce que font les algorithmes de machine learning pour prédire une valeur à partir d’entrées non rencontrées (non apprises). Je cite à peu près ses mots, ne soyons pas trop prétentieux à mettre notre intelligence et créativité au-dessus de tout…. Sans parler de tout un courant scientiste tentant de définir mathématiquement la notion de conscience.

Sommes-nous en train de vivre une révolution copernicienne, quand il a fallu accepter que l’homme n’était pas au centre de l’univers ? À défaut de trouver une intelligence ailleurs, se l’est-il inventée ? Hasard ou nécessité ? Avant de disparaître ?

Trêve de science-fiction, écoutons plutôt Étienne Klein qui apporte un joli contrepoint dans la conversation suivante La science est-elle menacée par l’IA ? Étienne Klein répond où il explique que les grandes révolutions dans la physique (Galilée, Newton, Einstein, Bohr) se sont faites par des expériences de pensée, des fulgurances de l’esprit qui n’avaient pas à disposition des milliards de données, et ça, pour le moment — il reste prudent comme tout grand scientifique —, l’IA en est encore bien incapable.

Mais il y a quand même des risques un peu plus immédiats avec l’IA générative. Qui n’a jamais eu, enfant, un doudou pour le rassurer ? Le chatbot cultive facilement la tendance naturelle des humains à l’anthropomorphisme en offrant un ami ou un coach 24h sur 24, un peu conciliant, très flatteur. Et hélas, pour des personnes fragiles psychologiquement ou en détresse affective, ça a conduit à des drames à cause de conseils hallucinés et hallucinants.

Un autre risque est d’utiliser l’outil pour obtenir des réponses toutes faites, sans esprit critique, sans progresser, sans s’approprier les choses. C’est le problème actuel à l’école : les élèves ne font plus l’effort (l’humain est paresseux par nature et cherche toujours le plus court chemin). Et à force d’utiliser cette béquille, comment peut-on ensuite s’en passer ? Comment s’améliorer ? Et en admettant que ça permette de rendre le cerveau plus disponible, mais à quoi donc ?

Or, l’esprit critique est essentiel, surtout dans ce champ de désinformation totale où même les IA peuvent être manipulées par des pouvoirs fascisants, qui pourraient orienter les réponses en inondant le web de sources fallacieuses, mais statistiquement probables car souvent rencontrées.

Soyons aussi très vigilants sur l’utilisation d’un point de vue énergétique et écologique. Lire à ce propos cet article de Jean-Marc Jeancovici et le rapport du Shift Project.

Car, hélas, cette invention n’est certes pas la seule responsable mais ne ralentira pas les problèmes écologiques pris dans cette course concurrentielle, totalement folle, entre les GAFAs, tech-milliardaires et apprentis sorciers demandant toujours plus d’investissement, tellement elle est gourmande en ressources, sans parler de son utilisation contre la liberté des individus ni dans les guerres impérialistes orchestrées par ces nouveaux dictateurs qui renaissent à tous les points cardinaux…

Heureusement, il y a des terrains où l’IA se révèle un sacré allié. Par exemple, dans l’analyse de l’imagerie médicale, pour la détection des cancers ou dans la capacité à synthétiser une quantité énorme d’informations qui permet rapidement de connaître l’état de l’art dans un domaine avant d’apporter sa propre créativité. Elle nous aide à mieux comprendre en formulant des explications souvent très pédagogiques et peut se révéler un excellent soutien scolaire devant qui on n’a pas à craindre de paraître idiot! D’autre part, quand on sait qu’on sait faire quelque chose mais que ça nous prend beaucoup de temps, oui, utiliser une automatisation à base d’IA peut nous permettre de gagner du temps pour des choses plus valorisantes.

Simplement, on aimerait que ces possibilités soient vraiment réservées à des domaines utiles et pas uniquement pour générer des images de moutons à cinq pattes ou de plus abjectes choses… Définir une éthique, éduquer nos enfants à respecter cette éthique… vaste idéal… finalement rien de nouveau sous le soleil. L’écriture a permis de créer des chefs-d’œuvre en littérature et hélas des horreurs comme Mein Kampf.

Que dire de plus, sinon cette phrase un peu bateau mais nous laissant devant notre responsabilité Humaine… immense :

L’IA est ce que NOUS en feront, pour le meilleur ou pour le pire…